गूगल ने हाल ही में अपने जनरेटिव एआई उपयोग की शर्तों को अपडेट किया है, जिसमें स्पष्ट किया गया है कि ग्राहक स्वास्थ्य देखभाल जैसे 'उच्च जोखिम' क्षेत्रों में अपने जनरेटिव एआई टूल का उपयोग 'स्वचालित निर्णय' लेने के लिए कर सकते हैं, लेकिन इसके लिए मानव देखरेख जरूरी है। गूगल द्वारा मंगलवार को जारी किए गए संशोधित 'जनरेटिव एआई के नकारात्मक उपयोग के लिए नीति' के अनुसार, ग्राहक गूगल के जनरेटिव एआई का उपयोग ऐसे 'स्वचालित निर्णय' लेने के लिए कर सकते हैं जो व्यक्तिगत अधिकारों पर 'महत्वपूर्ण नकारात्मक प्रभाव' डाल सकते हैं। जब तक कोई मानव किसी न किसी रूप में देखरेख करता है, ग्राहक गूगल के जनरेटिव एआई का उपयोग कर सकते हैं।

कृत्रिम बुद्धिमत्ता तकनीक के उभरने के साथ, कंपनियां और सरकारें "स्वचालित निर्णय" की खोज कर रही हैं, जिससे जनता में व्यापक चिंता बढ़ गई है। हालिया उपभोक्ता रिपोर्ट के अनुसार, 72% से अधिक उत्तरदाता कार्य साक्षात्कार, बैंक ऋण अनुमोदन, किराए के आवेदन की योग्यता मूल्यांकन और चेहरे की पहचान निगरानी जैसे क्षेत्रों में AI के उपयोग से असहज महसूस कर रहे हैं, जिनमें से 45% लोग इसे "अत्यंत असहज" मानते हैं। आधे से अधिक उत्तरदाता AI द्वारा चेहरे की पहचान निगरानी को लेकर चिंतित हैं, और लगभग एक तिहाई लोग इसे "अत्यंत असहज" मानते हैं। चिकित्सा निदान और उपचार योजनाओं के संबंध में भी आधे उत्तरदाता असहमत हैं।